Scullin sinh ra trong một thị xã nhỏ của Trawalla ở phía tây Victoria, là con trai của John Scullin, một người công nhân đường ray và mẹ ông là Ann Logan), cả hai là người Ireland Công giáo xuất thân từ Derry. Ông học phổ thông của bang và sau đó làm nghề bán tạp hóa ở Ballarat lúc đang học tại lớp đêm. Ông gia nhập Đảng Lao động Úc năm 1903 và trở thành một nhà tổ chức cho Công đoàn Công nhân Úc, sau đó là biên tập của tờ Evening Echo, một báo của Lao động ở Ballarat. Ông là một người mộ đạo Công giáo Rôma, suốt đời không uống rượu và không hút thuốc.